Huyện Ngọc Hồi nằm ở ngã ba biên giới Việt Nam - Lào - Campuchia, giáp huyện Đắk Glei ở phía bắc, giáp huyện Tu Mơ Rông ở phía đông bắc, giáp huyện Đắk Tô ở phía đông, giáp huyện Sa Thầy ở phía nam, phía tây giáp Lào và Campuchia.

Diện tích của huyện là 824 km², dân số là 45.800 người. Phía tây vượt qua dãy Trường Sơn là đường biên giới chung với Lào dài 34 km và đường biên giới chung với Campuchia dài 13 km.